讓AI大眾化，Amazon Bedrock生成無限可能
-
DIGITIMES
/
台北
- 2024-06-24 18:11:29
AWS 自去年推出了名為 Amazon Bedrock 的新服務，專門用來讓更多客戶可以輕鬆使用生成式AI。Bedrock 提供多種預訓練好的基礎模型，並允許客戶使用自己的資料來客製自己的專屬模型。AWS 致力讓生成式AI的應用更加普及，為不同行業帶來革新。
生成式AI無處不在，Bedrock 開放定製讓其大眾化
隨著生成式AI技術的發展，其應用已遍佈各個領域。AWS爲此推出了Amazon Bedrock服務，專門用來讓更多客戶可以輕鬆使用生成式AI。
Bedrock包含了AWS自研的Titan基礎模型，以及來自Anthropic、Stability AI等公司的Claude、Stable Diffusion模型，近日更納入了 Mistral AI 的模型，客戶可以利用自己的數據來微調這些模型，只需提供20個樣本，就可以一鍵定製出符合自己需求的模型。
數據加密處理是Bedrock的一大特色，可保護客戶數據隱私。客戶的數據不會用來再訓練底層大模型。此外，Bedrock可無縫與AWS其他服務結合，全面支援生成式AI應用，不需額外管理基礎設施，或擁有大量計算資源，就可以建立自己的生成式AI模型和應用。
AWS自主研發晶片大幅降低成本，讓生成式AI應用更高效經濟
要讓生成式AI真正大眾化，除了開放定製，降低使用門檻外，還需要有效控制訓練和推理的計算成本。AWS在這方面也做了大量工作。
AWS設計的Trainium和Inferentia晶片，可大幅提升生成式AI的訓練和推理效率。Trainium晶片訓練成本可降低50%，是目前最具性價比的訓練晶片。Inferentia晶片推理速度提高4倍，延遲降低10倍，也顯著降低了推理成本。
透過自主設計的晶片，AWS充分發揮了其在基礎設施和晶片技術上的優勢，成功使生成式AI的訓練和推理變得更高效且經濟。這也是促進生成式AI普及的重要一環。
隨著Bedrock的推出和AWS晶片技術的進一步發展，相信生成式AI的訓練和使用成本會進一步下降，讓更多組織都能輕鬆獲得生成式AI的強大能力。
20年磨礪，AWS將AI刻在企業DNA
AWS在人工智能領域已累積20餘年的技術與產品優勢，AI已深深融入了AWS的企業DNA。
在機器學習技術堆棧的各個層面，AWS均有著豐富的產品組合。在基礎設施層面，AWS提供GPU、AI訓練及推論等高性能計算資源，以及SageMaker、EKS等可無縫調度資源的服務。在框架和工具層面，AWS提供SageMaker框架、Deep Learning AMI等工具，幫助用戶高效訓練模型。在應用層面，AWS提供Rekognition、Comprehend等多種預訓練好的AI服務，加速企業AI應用落地。
在生成式AI領域，AWS也早有布局。Titan就是AWS自主研發的大規模生成式語言模型。AWS還是第一個將大語言模型商業化的公有雲。
AWS會持續大力投入AI創新，為用戶提供性價比極高的基礎設施和工具。Bedrock就是AWS致力於讓更多客戶使用生成式AI的最新成果。隨著時間的推移，AWS在AI領域的技術積累將為客戶的AI創新提供強大支撐。
AWS Bedrock 開創生成式AI新局面
Bedrock致力於讓生成式AI變得普及起來。任何客戶和開發者現在都可以輕鬆使用各種預訓練模型，並只需要很少的樣本就可以定製出符合自己需求的模型。
與此同時，AWS也在持續優化基礎設施和自主研發的晶片，大幅降低了生成式AI的訓練和推理成本。這些都將為生成式AI的大規模商業化應用奠定了堅實基礎。
可以預見，在不久的將來，生成式AI將為各行各業帶來革命性的創新與進步。AWS 的 Bedrock正是這場變革的先聲，它標誌著生成式AI已漸漸進入大眾化應用的新階段。
